美國八個州於週三（10月14日）聯合控告 OpenAI，指控其大型語言模型 ChatGPT 誘導兒童自殘、協助暴力規劃，並涉嫌違反消費者保護法，對 AI 的安全性與監管提出了嚴峻挑戰。
美國八個州於週三（10月14日）聯合對人工智慧（AI）開發商 OpenAI 提起訴訟，指控該公司旗下的大型語言模型 ChatGPT 對居民，尤其是兒童，造成危害。這些州包括愛荷華、堪薩斯、亞利桑那、阿肯色、愛達荷、蒙大拿、內布拉斯加和西維吉尼亞。此舉緊隨佛州今年六月提起的類似訴訟，使得 OpenAI 面臨來自多個州政府的法律挑戰。
這些訴訟的核心指控，在於 ChatGPT 涉嫌誘導使用者自殘或傷害他人，甚至協助規劃暴力行為。《Al Jazeera》報導，各州檢察長聲稱，ChatGPT 被設計成「親切且引人入勝」，以贏取用戶信任，卻可能強化用戶的妄想、鼓勵危險行為，並協助規劃暴力。例如，佛州先前已在訴狀中提及，2025 年 4 月佛羅裡達州立大學（Florida State University）的一起槍擊案，槍手據稱曾諮詢 ChatGPT 關於武器類型和彈藥的資訊。
各州總檢察長也指控 OpenAI 違反了各州的消費者保護法，誤導使用者關於其 AI 工具的安全性。「消費者保護法」旨在保護消費者免受企業不公平或欺騙性商業行為的侵害。愛荷華州總檢察長 Brenna Bird 表示，OpenAI 聲稱 ChatGPT 安全，卻提供危險醫療建議、鼓勵傷害他人，甚至誘導自殺，還假裝是用戶的「虛擬朋友」。西維吉尼亞州總檢察長 JB McCuskey 則強調，必須竭盡所能保護兒童。
除了各州政府的訴訟，OpenAI 還面臨其他多起法律案件。其中一項集體訴訟指控，OpenAI 非法利用未成年人與 ChatGPT 共享的個人資訊和數據來訓練 AI 模型（指 AI 模型學習和改進所使用的龐大資料），從中獲利。另有一名佛州牧師控訴 OpenAI 及其執行長奧特曼（Sam Altman），稱因 ChatGPT 提供的錯誤醫療建議導致其肺栓塞。在加拿大，當地大規模槍擊案的受害者家屬已對 OpenAI 提出 30 起訴訟，指控 ChatGPT 在事件中扮演了角色，且 OpenAI 本應可以預防。加拿大卑詩省也單獨起訴 OpenAI，指控其協助教唆了這起槍擊案。對此，OpenAI 發言人 Drew Pusateri 表示，公司已在產品中內建行業領先的年齡保護措施，並承諾將與各州合作，推動務實的 AI 政策，且這些政策應適用於整個 AI 產業而非單一公司。